Hoàng Công Khanh sinh tại Kiến An, Hải Phòng năm 1922 trong một gia đình trí thức. Ông tốt nghiệp tú tài triết học Pháp toàn phần, nhưng từ nhỏ đã có niềm say mê đặc biệt với ngôn ngữ Hán Nôm. Khi còn trẻ, ông cùng bạn bè tham gia vào đội thanh niên yêu nước chống Pháp và bị bắt giam ở nhà tù Sơn La (1941 –1945. Trong thời gian này, ông viết tập ký sự Hoa Nhạn lại hồng (Nhà xuất bản Văn học in lại năm 1991).

Sau Cách mạng tháng Tám, Hoàng Công Khanh lần lượt trải qua các chức vụ trong chính quyền Việt Nam dân chủ cộng hòa: trưởng ty thông tin truyên truyền, chủ tịch hội văn hóa cứu quốc Hải Phòng, trưởng phòng biên tập sở thông tin tuyên truyền thành phố Hải Phòng, tổng thư ký hội văn hóa cứu quốc liên khu 3, ủy viên ban chấp hành chi hội văn học nghệ thuật liên khu 3, chủ tịch hội đồng tiết mục Sở Văn hóa Hà Nội, chủ bút một số tạp chí,... Năm 1950, ông trở về Hà Nội làm chủ bút tờ Dân ý, tờ báo có sự chỉ đạo của thành ủy Hà Nội.

Hoàng Công Khanh là một trong những nạn nhân của vụ Nhân văn giai phẩm. Vào khoảng năm 1957, báo Nói thật do Hoàng Công Khanh làm chủ bút trích đăng bài Sự chia tay giữa chính trị và văn nghệ của Lỗ Tấn bày tỏ sự ủng hộ quan điểm yêu cầu nghệ thuật phải tách rời chính trị do Lê Đạt, Trần Dần, Tử Phác,... khởi xướng. Ông bị buộc thôi việc và bị bắt giam. Sau khi ra tù, Hoàng Công Khanh phải đi làm thợ mộc rong, nhưng suốt 10 năm cực nhọc với công việc tay chân, Hoàng Công Khanh vẫn không quên viết. Ông tâm sự về thời kỳ này: "Trước đây, tôi giữ nhiều chức vụ nhưng thật ra chẳng làm được gì đáng kể, làm thợ mộc rong vừa có nhiều tiền, vừa viết khỏe". Những tác phẩm ông viết trong thời gian này đều được đồng nghiệp đánh giá cao vì tính chân thực, nhiều cuốn được trao giải thưởng của Hội liên hiệp văn học nghệ thuật.

Hoàng Công Khanh có bốn cô con gái, nhưng sau này khi ông về già, vợ mất, ông sống một mình trong căn hộ tầng một tại khu tập thể Phương Mai, quận Đống Đa, Hà Nội. Ông mất ngày 5 tháng 5 năm 2010 tại Hà Nội.